UniCon：面向CTR预测的统一上下文中心建模范式
🧭 统一上下文建模 · CTR预测 ★ 深度解读
Meituan
将历史曝光列表与当前候选集统一为上下文单元，通过分层注意力建模上下文内局部性与跨上下文动态
📌 工作参考价值（4 点）
- 上下文单元抽象：在电商搜索/推荐中，把每次展示列表（共现商品、位置、环境信号）组织成一个上下文单元，而不是把行为序列展平。这能显式建模同一曝光内商品的竞争/互补关系，以及跨曝光的状态演化，对货架、瀑布流等强上下文场景特别有用。
- 历史与目标结构对齐：训练时历史曝光带点击标签，目标候选集用可学习占位符对齐，再通过曝光和绝对位置预测辅助任务将目标单元引导到真实展示分布。这套做法可以迁移到重排或生成式推荐中，让候选集表示更贴近最终展示情境。
- 目标感知的上下文压缩：在长历史序列中，每层用target-context的query-key相似度选择保留top-k个最相关的历史上下文单元，大幅降低attention计算量而几乎不损失精度（压缩比0.5时计算减少75.4%，AUC仅降0.0001）。这对长序列用户建模很有借鉴价值。
- 工程化细节：padding-free变长注意力、segment offsets表示上下文边界、AOT编译和融合算子，以及候选分片策略（固定300个候选一个分片），这些是让高计算量上下文模型上线可行的关键。训练和推理使用一致的分片规则也很重要。
Puffin-World：用原生 3D 世界状态扩展统一多模态模型
🧭 多模态世界模型 · 3D 生成重建
S-Lab, Nanyang Technological University · University of Michigan · Beijing Jiaotong University · ACE Robotics
统一多模态架构，联合物理/几何/外观三态与 Omni-Camera 实现 3D 世界生成重建
📌 工作参考价值（4 点）
- 可借鉴「原生状态联合建模」：在商品理解/生成中，将视觉、深度/几何、物理属性（如材质、尺寸、重力约束）作为并行状态统一建模，替代只用图文 embedding，可提升家居、鞋服等品类空间一致性。
- 用显式 Omni-Camera 参数控制多视角生成：商品视频、虚拟试穿、3D 展示素材可 ground 绝对相机内外参，生成物理稳定、多角度一致内容，减少后期抖动与畸变。
- 外观-几何耦合生成：同时输出 RGB 和 depth 再用于重建，适合商品 3D 重建/AR 展示/虚拟棚拍，能对齐纹理与几何，降低“贴图漂移”。
- 闭环自校准探索思路可迁移到 Agent 拍摄/漫游：让模型根据当前状态规划下一视角并在线修正相机与场景参数，但需构建匹配业务场景的轨迹数据。
UniFormer：统一的模型中心缩放框架用于工业推荐
🧭 模型中心缩放 · 统一特征与任务交互 ★ 深度解读
Kuaishou Technology
统一特征空间与任务空间的联合缩放，实现快手线上观看时长+0.7%~1.1%提升，推理加速48%
📌 工作参考价值（4 点）
- 语义分组 tokenization 实现用户-物品解耦：将无序列特征分为与候选物品独立/依赖两组，推理时独立部分计算一次复用所有候选，大幅降低时延；可借鉴于电商推荐中用户画像、上下文等请求级特征的重用。
- 多视图 FFN 灵活分配参数：为序列（S-FFNs）、无序列（NS-FFNs）、任务（T-FFNs）分别配备独立 FFN，避免容量瓶颈，支持定向扩容；在广告排序模型中可对不同特征类型（行为、属性、任务）配置可独立扩展的模块。
- 多序列交叉注意力防止偏好塌缩：短/长行为序列分离交叉注意并自适应融合，保留异构兴趣；电商场景可对点击、收藏、加购等不同长度序列独立建模后再融合，提升个性化。
- 任务 token 参与注意力交互：将任务特征作为 query 与高阶特征做交叉注意力，再自注意力捕获任务间关系，可替代传统 MMoE 等多任务模块，便于统一缩放。
OneFeed：统一生成式框架同时建模商品推荐与搜索Query生成
🧭 生成式推荐 · Semantic ID 联合 Query 生成 ★ 深度解读
用一个共享编码器同时生成推荐用的语义ID和搜索用的自然语言Query，并通过对比对齐弥补语义鸿沟
📌 工作参考价值（4 点）
- 统一 Feed 与搜索的生成范式：共享行为编码器同时产生 Semantic ID 和自然语言 Query，可以借鉴到电商的「千人千面」Feed 流中，让一个模型既做推荐又做搜索类目/query 推送，减少维护两套系统的成本。
- SID-Query 对齐的设计：用对比学习让离散的语义 ID 和自然语言 Query 共享嵌入空间，这样生成的 Query 可以直接检索到与语义 ID 对应的商品候选，推荐和搜索的候选池可以无缝融合。在业务里可尝试将商品聚类码与用户搜索词进行对齐，提升跨链路触达。
- 闭环自增强范式：利用生成内容获得的隐式反馈（点击/跳过/转化）同时监督两个生成头，无需人工标注。可以复用到 Agent/多智体场景中，Agent 生成的推荐物料或查询被用户反馈后，作为训练信号自举提升。
- 弱监督 Query 构造：在只有商品文本元数据的场景下，用标题、类目、高频词拼接伪 Query，为没有搜索日志的业务线提供了一种低成本冷启动搜索式推荐的思路。注意严格防泄露：训练时只用历史时间窗口前的元数据，测试集不参与聚类和共现校准。
HiDream-O1-Image: 像素级统一Transformer的原生多模态图像生成基础模型
🧭 像素级统一Transformer的图像生成范式
HiDream.ai
通过像素空间扩散Transformer，消除VAE与独立文本编码器，实现多模态原生统一生成，8B参数媲美27B模型并可扩展至200B+
📌 工作参考价值（4 点）
- 统一token空间设计消除了独立VAE和文本编码器，大幅简化多模态生成pipeline，在电商商品图生成中可降低工程复杂度与延迟。
- In-context编辑与个性化能力可直接用于商品图片的指令式修改（如背景替换、文案添加），实现快速营销素材生成。
- 200B+规模的扩展性验证了架构的工业可行性，适合作为商品视觉内容生成与编辑的统一基座模型。
- 将文本、像素、条件统一视为token进行推理的思路，可迁移至多模态推荐或Agent系统，用单一Transformer统一处理异构输入。